Blog - LINE ENGINEERING

TAG ARCHIVES: LINE R&D

【インターンレポート】未知の語彙を含む画像に対して頑健なOCRモデル学習手法の提案
Shota Nakamura2023-02-24
Computer Vision Labチーム
はじめに 8/8から6週間の就業型インターンに参加しました、中村祥大と申します。私は東京工業大学大学院に所属する修士1年で、現在は深層学習の高速化に関する研究をしています。今回のインターンではComputer Vision LabのOCRユニットに所属し、その中でも特に、テキスト認識タスクの性能向上に関連するテーマに取り組みました。本レポートではその成果について報告します。背景今回のインターンで私はテキスト認識に関連するタスクに取り組みました。テキスト認識とは、与えられた画像に書かれている文字列は何であるかを認識する処理です。近年、深層学習モデルを用いたテキスト認識が台頭しています。しかしながら、そのようなアプローチには、学習時に登場していないテキストを含む画像に対する認識精度が低下するという問題（Vocabulary Reliance）が存在します。以降ではテキストの集合のことを「語彙」、「学習に用いる語彙」のことをIn Voc、「学習に用いておらず、実際の推論時に登場する語彙」のことをOut Vocと呼びます。実際のユースケースで登場しうるOut Vocの例として、「ana
CSS2022参加報告
Koki Wataoka/Takao Takenouchi2022-11-25
Trustworthy AIチームリサーチエンジニア(Wataoka), ML Privacyチームシニアプライバシーエバンジェリスト (Takenouchi)
AI開発室 Trustworthy AIチームの綿岡と、Data Scienceセンター ML Privacyチームの竹之内です。10月にコンピュータセキュリティシンポジウム2022（CSS2022）にて発表しましたので、その模様を報告します。綿岡からは言語モデルの倫理的問題点を効率的に検査する手法「Iterative Few-shot」に関する論文を発表し、CSS奨励賞を受賞したことを報告します。ML Privacyチームからは、竹之内が企画セッションに登壇した他、髙橋や前田が座長や運営なども目的に参加しました。本ブログでは、主に発表論文や企画セッションの内容を中心に、シンポジウムの様子を報告します。 CSS2022についてコンピュータセキュリティシンポジウム(CSS)は、セキュリティ分野の2大国内シンポジウムの一つであり、情報処理学会コンピュータセキュリティ研究会の主催で毎年行われています。今年のCSS2022は、2022年10月24日から4日間の日程で、熊本とオンラインとのハイブリッド形式で開催されました。会場は2016年の熊本地震から復旧を進めている熊本城を臨む熊本城ホー
【インターンレポート】BERTの知識蒸留によるEnd-to-End音声認識の性能向上
Yuta Nishikawa2022-11-24
Speechチーム
初めまして。奈良先端科学技術大学院大学修士1年の西川勇太です。2022年夏にLINE株式会社の就業型インターンシップに6週間参加しました。インターンシップではAI開発室のSpeechチームに所属し、「BERTの知識蒸留によるEnd-to-End音声認識の性能向上」のテーマで研究を行いました。本インターンシップの内容は学会に投稿予定のため、本記事ではその一部の内容のみを紹介させていただきます。問題背景・目的近年、End-to-Endモデルによる音声認識手法が目覚ましい成果を上げており、注目を浴びています。この手法は、従来の音響モデル、言語モデル、発音辞書を組み合わせて構成されるモデルと比較して、シンプルなアーキテクチャでかつ、高い精度での推論を可能とします。このEnd-to-End音声認識モデルは大きく分けて自己回帰型のモデルと非自己回帰型のモデルの２通りのモデルがあります。まず、自己回帰型のモデルはAED（Attention Encoder-Decoder）モデル[1][2]やRNN Transducer[3][4]などがありまず。これらの自己回帰型のモデルは、各トークン間の依存関
【インターンレポート】言語モデルにおける公平性の評価技術の開発
Miyu Oba2022-10-17
Trustworthy AIチーム
はじめに奈良先端科学技術大学院大学修士1年の大羽未悠です。2022年夏に6週間の就業型インターンシップに参加しました。Trustworthy AIチームにて、言語モデルにおける公平性の評価技術の開発を行いました。本記事では、取り組んだ作業内容について報告させていただきます。 Trustworthy AI チームとは Trustworthy AI チームとは、2021年6月に発足した AI の信頼性に関する研究開発に取り組むチームです。 AI 特有のリスクの探索評価技術や、 AI の信頼性を担保する技術の研究開発を行なっています。主に大規模言語モデルや画像分類器を対象に、「ひとにやさしい AI 」の実現を目指しています。私は大学で自然言語処理の研究に従事していることもあり、今回のインターンシップでは日本語の大規模言語モデルに焦点を当てました。背景言語モデルとは、単語列に対する尤もらしさを計算するモデルです。任意の入力単語列に対して尤もらしい単語列を出力できることから、チャットボットなど様々なタスクに応用することができます。しかし、言語モデルは人間が作成したコーパスを使用して学習
VLDB 2022 参加報告
Tsubasa Takahashi2022-10-14
ML Privacyチーム　マネージャー / シニアリサーチャー　博士(工学)
LINE Data Scienceセンター、ML Privacyチームの髙橋です。9月に世界トップレベルの国際会議、VLDB 2022にて発表しました。本ブログではその模様について報告いたします。 VLDB 2022について Very Large Data Base Endowment Inc.主催のVLDB 2022 (48th International Conference on Very Large Data Bases)は、データベース・データ工学分野におけるトップカンファレンスです。SIGMODやICDEと並ぶデータベース系三大会議として知られています。本年度は、9月5日〜9日にかけてオーストラリアのシドニーで開催されました。会場は、Darling Harborを臨むThe International Convention Centre Sydney (ICC Sydney)です。 LINEからは、髙橋が京都大学の加藤さんとインターンシップで取り組み、その後、京都大学大学院情報学研究科吉川正俊教授および北海道大学大学院情報科学研究院曹洋准教授 (当時は京都大学特定准
- LINE R&D
【インターンレポート】形状を詳細に反映した顔の3次元再構成
Shiori Ueda 2022-09-20
Computer Vision Labチーム
こんにちは。慶應義塾大学大学院理工学研究科修士1年の上田栞です。8月から6週間、LINE株式会社の2022年度夏季インターンシップ「技術職就業型コース」に参加させていただき、リサーチインターンとして、AIカンパニーのComputer Vision Labチームに配属され、「形状を詳細に反映した顔の3次元再構成」という研究に取り組みました。本レポートでは、我々が目標としている課題と、インターンシップにて取り組んだ内容・成果について説明します。テーマ背景バーチャルヒューマンの技術は近年急速に発展しており、仮想の人物を創り出すだけでなく、実在の人物をバーチャル化する取り組みも行われています。実在の人物に近いバーチャルヒューマンを作成するためには、リアルな顔を生成することが必要ですが、現在のCG技術では、作成された顔にまだCGらしさが残っており、リアルであるとは言えません。コンピュータビジョンの分野でも、人物の顔を操作する研究が活発に行われています。有名な例として、ディープフェイクがあります。ディープフェイクでは、敵対的生成ネットワークを使用して2人の人物の顔を入れ替えることで、顔
【インターンレポート】大規模Vision&Languageモデリングに向けたLAION-5Bのデータ分析と大規模データ整備システムのプロトタイプ検討
Yuto Masumoto2022-09-16
Computer Vision Labチーム
1. 初めにこんにちは、東京大学大学院情報理工学系研究科コンピュータ科学専攻の修士1年の増本雄斗です。研究室では自然言語処理を専門に研究をしています。今回、LINEでの就業型エンジニアリングインターンシップに参加し、AI開発室のComputer Vision Lab チーム(以下、CVLチームと表記)での取り組みを紹介したいと思います。本記事では、LINEでのインターンがどのようなものであったかを私の取り組みを紹介しつつ伝えられれば、と思っております。 2. インターン課題と目的背景近年のVision&Languageモデリングは、大規模に画像とテキストを両方用いた学習により、画像からのテキスト、テキストから画像といった高品質な生成が可能となりました。具体的には、画像生成においては、テキストから任意の画像を生成するOpenAIのDALL・E[1]や、商用利用可能なStable Diffusionモデル[2]などが公開されており、その生成画像の品質の高さに注目を集めています。一方で、テキスト生成においては、画像を入力としてその説明文を生成する、Imga
SIGMOD2022 参加報告
Tsubasa Takahashi, Seng Pei Liew2022-08-23
Data Scienceセンター ML Privacyチーム / AI開発室 TrustWorthy AIチーム
LINE Data Scienceセンター、ML Privacyチームのリュウと髙橋です。6月に世界トップレベルの国際会議、SIGMOD2022にて発表しました。また、第43回先端的データベースとWeb技術動向講演会にて、SIGMOD2022国際会議報告を実施しました。本ブログではその模様について報告いたします。 SIGMOD 2022について Association for Computing Machinery主催のSIGMOD2022 (ACM SIGMOD/PODS Conference on Management of Data)は、データベース・データ工学分野におけるトップカンファレンスです。VLDBやICDEと並ぶデータベース系三大会議として知られています。本年度は、6月12日〜17日にかけてアメリカのペンシルベニアでオンラインと兼ねてハイブリットの形で開催されました。LINEからは、私たちリュウセンペイおよび髙橋翼と、京都大学大学院情報学研究科吉川正俊教授および曹洋特定准教授との共同研究の成果が採択され、発表の機会を頂きました。（参考）プレスリリー
文章有害性評価コンペティションへの挑戦
Koki Wataoka2022-03-25
Trustworthy AIチームで言語モデルの信頼性検証技術の開発に取り組んでいます。
AI開発室のTrustworthy AIチームに所属している綿岡です。普段の業務は言語モデルの信頼性向上のための技術開発で、特に有害文検知に関する技術開発に注力しています。昨今の言語モデルの急速な発展に伴い、有害文検知の技術も急成長しており、Perspective API（有害文を検知するAPI）を提供するJigsawは有害文検知コンペティションを2018年から毎年開催しています。一方、我々Trustworthy AIチームは、日本語での有害文検知モデルの構築は今後最重要課題となるだろうと常々考えてきました。そのことから有害文検知の最先端に挑戦するとともに知見を深めることを目的として、2021年11月からKaggleで開催された「Jigsaw Rate Severity of Toxic Comments」にTrustworthy AIチームから綿岡が参加することにしました。最終結果を先に記載しておきますと、2,301チーム中147位で銅メダルを獲得しました。このブログでは、本コンペの概要及び出場にあたって取り組んだ内容について報告します。ルール本コンペの目的本コンペの目的は「
- Trustworthy AI
- LINE R&D
【インターンレポート】汎用的な音声表現のための自己教師あり学習の研究
Ibuki Kuroyanagi2022-03-16
はじめまして、名古屋大学大学院情報学研究科修士１年の畔栁伊吹です。2021年の夏にLINEのAI開発室のリサーチャーインターンシップに6週間参加しました。今回のインターンはコロナの影響でフルリモートで参加しました。普段と異なる環境かつ限られた時間の中で成果を出せるか不安でしたが、メンターの方と毎日30分程度ミーティングの時間があったため、問題なく進めることができました。インターンでは、「汎用的な音声表現のための複数のサンプリング戦略を用いた自己教師あり学習法」の開発、実験、論文執筆を行いました。論文は音声・音響・信号処理分野における世界最大規模の国際学会ICASSP2022に投稿し、採択されました[1]。以下では、インターンで取り組んだ研究の概要について書きます。研究背景音に関連するタスクには、音声認識、話者識別、コマンド認識、音響イベント検出、ピッチ推定、など様々な種類があります。ニューラルネットワークの発展に伴い様々な手法が高い性能を実現していますが、それぞれのタスクに対して専用の学習用データを収集し、教師ラベルを付与する必要があるため多くの労力が必要となります。コマンド認識
- line-intern-ja
- LINE R&D

1 2 3 4